Jović sinh ra tại ngôi làng nhỏ Batar gần Bijeljina. Năm lên 5 tuổi, anh bắt đầu chơi bóng đá ở Loznica, nơi anh được phát hiện vào năm 2004 và được mời chơi ở giải Mini Maxi, một giải đấu dành cho trẻ em từ 4 đến 12 tuổi ở Belgrade. Sau một trận đấu mà Jović đã ghi được ba bàn thắng, cha anh đã được đề nghị trả 50 euro cho mỗi trận thi đấu và 2.000 dinar cho chi phí đi lại từ Batar đến Belgrade. Trong một trận đấu, anh đã được Toma Milićević, tuyển trạch viên của Red Star, người mời anh đá thử cho Red Star Belgrade.[2] Phong cách chơi của anh đã khiến người ta so sánh với Darko Pančev và Radamel Falcao, cũng là thần tượng của Jovic.[3][4]